![arxiv：2402.06363v1 [cs.cr] 2024年2月9日](/simg/3/3ddec16645db39f41f09cb1eb4c0f25652f964b0.webp)
机构名称：
¥ 1.0
大型语言模型（LLMS）的摘要最新进展启用了令人兴奋的LLM集成应用程序，该应用程序通过利用其先进的语言理解功能来执行基于文本的任务。但是，随着LLM的改善，对它们的攻击也有所改善。提示注射攻击是一个重要的威胁：它们欺骗模型偏离原始应用程序的说明，而是遵循用户指令。这些攻击取决于LLM遵循说明和无法分开提示和用户数据的能力。我们介绍了结构化查询，这是解决此问题的一般方法。结构化查询将提示和数据分为两个通道。我们实施了一个支持结构化查询的系统。该系统由（1）安全的前端制成，该前端将及时和用户数据格式化为特殊格式，以及（2）经过特殊训练的LLM，可以从这些输入中产生高质量的输出。使用新颖的微调策略对LLM进行了训练：我们将基础（非指导）LLM转换为结构化指令调节模型，该模型只会遵循查询及时的指示。为此，我们通过示例增加了标准指令调整数据集，其中还包括查询数据部分中的说明，然后微调模型以忽略这些指令。我们的系统大大提高了对迅速注射攻击的阻力，对公用事业的影响很小或没有影响。我们的代码在此处发布。
arxiv：2402.06363v1 [cs.cr] 2024年2月9日
主要关键词
![arxiv：2402.06363v1 [cs.cr] 2024年2月9日PDF文件第1页](/bimg/f/f93462715ec2a68b0bb492e3cdc8236e0aabfb8e.webp)
![arxiv：2402.06363v1 [cs.cr] 2024年2月9日PDF文件第2页](/bimg/b/b8002d325bf03734f06dfdfc8227afd6b0e19797.webp)
![arxiv：2402.06363v1 [cs.cr] 2024年2月9日PDF文件第3页](/bimg/0/0bd328382c1576b0f5b9a326658f86af73af7e76.webp)
![arxiv：2402.06363v1 [cs.cr] 2024年2月9日PDF文件第4页](/bimg/4/4c8359b1a9149e3e4e4a9c7c219f95b4db95737c.webp)
![arxiv：2402.06363v1 [cs.cr] 2024年2月9日PDF文件第5页](/bimg/1/10df0757f0dd1213e052163722dd249059ffed9a.webp)
相关文件推荐
![arxiv：2402.14527v1 [cs.lg] 2024年2月22日](/simg/c/c5e7363979a4b34fd46e6bbf66b93e8509e227cb.webp)
![arxiv：2402.10553v1 [cs.ro] 2024年2月16日](/simg/5/50ab6410c1bde83c8f60ce0ddb3b53f53686316b.webp)
![arxiv：2402.12702v2 [cs.ai] 2024年2月26日](/simg/3/328419de55ca4015b4bbfa96eb1075dcfec2dfee.webp)
![arxiv：2402.02385v1 [cs.ro] 2024年2月4日](/simg/3/3dc500ee58d3c948d12a92f3b875d2da17092f15.webp)
![arxiv：2402.08540v1 [cs.lg] 2024年2月13日](/simg/0/0d3c5d21d7ebc6c4f9033fdcaf762fcc6af0e990.webp)
![arxiv：2402.09233v1 [cs.ro] 2024年2月14日](/simg/b/b52ed5719ba2880b07e9631eab06b78b4dd35d30.webp)
![arxiv：2402.13946v2 [cs.lg] 2024年2月26日](/simg/e/e870ca6fb63efd17ae8a07b3968e3146d214b6ab.webp)
![arxiv：2402.07016v1 [cs.ai] 2024年2月10日](/simg/9/9561106bbf3c742ff1228e38f3ed355eb69ea4a7.webp)
![arxiv：2402.16320v1 [eess.sp] 2024年2月26日](/simg/8/8ab716398e44362a86f7cae4e23ee08b093c5014.webp)
![arxiv：2402.08360v1 [cs.cv] 2024年2月13日](/simg/2/2d78d0b4c73cd9c3f9833e88723c51f5677c71db.webp)
![arxiv：2402.13326v2 [q-fin.cp] 2024年2月22日](/simg/0/027fe2c7ea4c20179f471443882c53e0ea318b1c.webp)
![arxiv：2402.07474v1 [Quant-ph] 2024年2月12日](/simg/9/98a13ef7f1aea6494049d553b5beda8e38372c18.webp)
![arxiv：2402.13895v1 [Quant-ph] 2024年2月21日](/simg/4/4c903a15cfd60b11ccf62c889d157188dd1f8f31.webp)
![arxiv：2402.18157V1 [CS.AI] 2024年2月28日](/simg/4/4fdc6d835045693f8a6e4444287ec76ac466a290.webp)
![arxiv：2402.06946v1 [Quant-ph] 2024年2月10日](/simg/e/e94345c8e3a46ec45b4a0f221fb0d84eba7d5223.webp)
![arxiv：2402.09902v1 [Quant-ph] 2024年2月15日](/simg/3/3bcbf765cb707b4bd911fa371cb8fa8b5e26bdc0.webp)
![arxiv：2402.17520v1 [Quant-ph] 2024年2月27日](/simg/b/bbf39513a61bc4120ba279c4deb9de078a68a0e9.webp)
![arxiv：2402.08727v1 [Quant-ph] 2024年2月13日](/simg/8/8fe1e629ad084c14b4a994d1dc5f17f112232ca0.webp)
![arxiv：2402.10347v1 [physics.optics] 2024年2月15日](/simg/5/589dc52abcc9ae6e09dae8400fba3e6b89e79856.webp)
![arxiv：2402.04598V1 [CS.HC] 2024年2月7日](/simg/0/0c956cd7426e379a52ec8740ec3bd812e4c80e71.webp)
![arxiv：2402.07547v1 [CS.MA] 2024年2月12日](/simg/e/e601b3c18b21462c8c7d6cb7a15b3fafd1326b7e.webp)
![arxiv：2402.14946v1 [physics.optics] 2024年2月22日](/simg/d/d33ee8f1d03eb9ef553dd567fd2a63eec0f778cf.webp)
![arxiv：2402.00128v2 [CS.CV] 29年2月29日，2024年2月](/simg/0/0c92b1f474dcdb77ec786b56d2d8026655473f57.webp)
![arxiv：2312.13001v3 [physics.atm-clus] 2024年2月9日](/simg/e/e29278da98dd949dc19111bbd3ef9367c7e08905.webp)
![arxiv：2402.03031v1 [Quant -ph] 2024年2月5日-Schuster Lab](/simg/5/55f7eacd0c0b8c3191a29d814f9e46db3d51a3bc.webp)
![arxiv：2402.10458v1 [cond-mat.str-el] 2024年2月16日](/simg/c/cc80ca0d41014e0ab87529d941d828861470a6e8.webp)
![arxiv：2402.00059v1 [cs.lg] 2024年1月28日](/simg/d/df4199e81fd68f37b31a66ca712d83262d1423f7.webp)
![arxiv：2402.06972v2 [cond-mat.mes-hall] 2024年2月17日](/simg/0/04127dd52c304790cd1a796f479cf4c3761cb32e.webp)
![arxiv：2311.01223v4 [cs.lg] 2024年2月23日](/simg/4/43c28fea9ff05de55c15ddd7d0588dd7ecbb3560.webp)
